来源:Unsplash

我们的生活应该在多大程度上被数字系统所控制?

技术的创新将使原来在政治生活中不可能的事情变得可能。

哈佛大学伯克曼·克莱因(Berkman Klein)网络与社会中心的律师和前任研究员,2020-2021博古睿学者。著有《未来政治:共同生活在被科技改变的世界》。

2021-02-03 / 阅读时长 11 分钟
NOEMA 首发 译文

在过去,政治和神学密不可分。政治领袖宣称其权力来自神授。人们认为天下大治是上帝的旨意,而天下大乱是上帝不悦的代价。社会进步被视为上帝、神灵和命运的馈赠。

而在现代,政府的运作不再被认为是神秘力量的玩物,而更多地是世俗努力的领域。理性分析、公共理性和科学管理逐渐取代宗教成为政治合法性的基础。在美国、法国及其他地方发生革命之后的一段时期,很多国家都进行了密集的理性化和重组。

比如,实现语言标准化,推出统一的度量衡,制定宪法和各种法规,以促进政府运作的精确性和条理性。到20世纪初,德国社会学家马克斯·韦伯开始盛赞官僚制度的“精密工具”,尤其是他的论著《社会组织与经济组织理论》(1922)之后,提出它具有“迅捷、明确、熟稔公文、连续性、谨慎、统一性”等特征,认为其是当时已知的最先进的社会组织方法。

而一个世纪后,我们正在见证人类共同生活方式的又一次转变。数字技术已经开始不可逆地改变我们集体生活的性质。

在过去,信息和通信技术革命通常伴随着政治变革。事实上,在语言出现之前,我们今天所理解的政治是难以想象的。文字发明后不久,第一个帝国崛起。在当时,文字就是最先进的信息和通信技术。加拿大政治理论家哈罗德·伊尼斯(Harold Innis)在《帝国与传播》中提出,埃及、波斯和罗马帝国“本质上是文字的产物”。在这些帝国倾覆几千年后,印刷技术被引入欧洲,随即欧洲发生巨大的政治动荡,新的颠覆性思想以前所未有的速度和精确度传播开来。

在20世纪,官僚制度和技术更迭齐头并进,政府机构越来越依赖于信息的有效搜集、存储和传播。用于处理1880年美国人口普查的穿孔卡和制表机为后来的国际商业机器公司(IBM)奠定了技术基础,这绝非巧合。

最近,互联网在很多方面推动了西方民主进程的发展:比如,政党动员积极分子的方式、政治分析家聚合公众情绪的方式、公民与政治家互动和游说政府的方式、以及用于监控政治形势发展的工具等等。但是,如果我们审视我们目前所理解的民主进程的两个基本要素——慎议和决策,就有可能看到更实质性的变化。

慎议

慎议[1](Deliberation,又译协商、商议等)是社区成员讨论政治问题的过程,目的是找到所有(或大多数)理性人都能接受的解决方案。互联网已经彻底改变了我们讨论问题的场所的性质。普通大众越来越多地在个人拥有和管理的数字平台上,获取政治新闻、讨论政治问题。这有其好处,但风险也日趋明显:算法极化导致社会分裂和“假新闻”扩散。令人越发不安的另一个因素是,决定谁可以参与慎议过程的权力(通常为个人拥有)日益膨胀,它能决定谁的言论被封禁或禁止,以及何种言论可以被言说或者禁止。每当“禁止令”将一个有争议的公众人物从社交网络中驱逐出去,有人愤慨,有人欢呼。通常,这种态度差异其实也是党派之别。

在未来,人类完全有可能不再是慎议进程的唯一参与者。聊天机器人这样的人工智能系统能够使用自然语言与人类进行对话。当参与政治时,它们的贡献大多限于传播像“把她关起来(LockHerUp)”或“让美国再次伟大(MAGA)”这样的口号。它们并不像人类一样“思考”,却已经对政治话语产生相当可观的影响。例如,大约20%的讨论2016年美国总统大选的推文,以及30%的与英国退出欧盟有关的推文流量由非人类实体产生。在2018年美国中期选举前的几个月里,推特等平台上关于穿越中美洲向北进发的“大篷车”移民的聊天内容,有大约三分之二是由聊天机器人发起的。

更重要的是,我们要认识到,未来的机器人思考能力的复杂程度将能够与人类匹敌,甚至超越人类。据报道,2019年夏天,一个机器人在英国最大的医学协会——英国皇家全科医师学会的临床考试中得到了81%的分数。而“人类医生”的平均分数约为72%。

不难想象,未来人工智能系统的辩论能力可能会超过我们,这不仅仅是因为政治话语的乏善可陈。未来的机器人将拥有自己的面孔、声音、名字和个性,所有这些都是为了获得最大程度的说服力。早期DeepFake技术生成的视频可以让名人和政治家“说”出他们从未说过的话,尽管目前尚未到达完全逼真的效果,但还是显示出非人类行动者合成人类话语的潜力。

这带来一个显而易见的风险,就是高效系统即将抹杀掉其人类创造者那些“微不足道”的贡献,把我们挤出自己的公共话语空间。实话实说,这种异常强大的机器人最有可能为富有阶层拥有和控制,而他们得到的好处就是:他们的言论必定在公共讨论中获得更大的影响力。

从更乐观的角度来看,机器人可以用来服务公众,帮助我们促成更具建设性、更睿智和更包容的对话。因此,最重要的是三件事:如何设计这些系统,谁拥有和控制它们,以及它们可以被允许的用途。例如,美国参议员黛安·范斯坦(Dianne Feinstein)提交《机器人披露和责任法案》的目的,就是试图禁止候选人和政党使用任何旨在模拟或复制人类活动的机器人来进行公众交流。该法案还将阻止政治行动委员会、法人团体和劳工组织使用机器人为候选人辩护。

决策

除了慎议活动,数字技术也可以改变我们的决策方式,即投票过程本身。由于现代政治的规模和复杂性,“直接民主”概念在过去几个世纪里,一直被忽视,但现在它不再是仅存在于辩论中的假设。未来的公民也许能够每天通过智能手机或其他类似设备投票来决定多项政策,时时刻刻享受全民参与的过程。当然,大家不一定希望看到这种情况发生。人们也有可能将他们在某些问题的投票权委托给他们信任的人。例如,允许建筑师和城市规划者协会代替他们就城市设计问题投票。这被称为“流动式民主”。

从长远来看,正如机器学习专家佩德罗·多明戈斯(Pedro Domingos)在2015年出版的《终极算法》一书中所说的那样,这种人工智能系统每天代表公民“投票”数百或数千次式的“民主”并不是不可能的。还有什么方式比利用各种系统分析公民现实生活和价值观的准确数据而不断进行投票,更能代表民意呢?这一流程比传统选举方式更资格以“民主”自诩。后者仅允许一部分人每隔几年投一次票,在某个方框中打一个勾,目的是在有限几个选项中选择一个候选人。

当然,更“民主”并不总意味着更好。例如,我们希望在癌症治疗方面的决策由训练有素的肿瘤学家来决定,而不是由民众决定。遵从现代自由主义传统的理论家,长期以来一直试图确定民众自己做决定的合适界限,用人权和法治小心翼翼地限制民众不受约束的意志。

但是这个问题还没有结束。相反,科技进步推动公共生活中更多的领域开始民主化,某些人可能会主张越民主越好。反过来,这种主张则很可能成为新的政治分歧的断层线。

管理

除了慎议和决策,政府的工作还包括管理和执法。

先谈谈管理,保存记录、立法、分配福利和资源。总的来说,既有这些决策具有重要的社会影响力。它们决定了我们与国家的交流方式以及我们作为公民的经历体验。健全的公共行政体系,比如有效和知情的决策、适当的问责制、政府廉洁、公平分配资源等,是一个国家健康政治的重要组成部分。在未来,技术在这些活动中可能扮演什么角色呢?

事实上,我们已经将很多重要决策委托给数字系统。算法代替我们交易股票;机器学习系统被用来诊断疾病;数字系统在政府工作中的作用,不应是我们需要争论的原则性问题。如果此类系统能够有效地管理城市电力供应、监控税收合规性、记录财产所有权、管理社会保障福利等,那么,我们何乐而不为呢?如果我们不再仅仅为了追逐利润而应用这些技术,这将是一个可喜的变化。不出意外,官僚制度的“精密仪器”最终将被先进的数字技术系统所取代。

但是,我们如何处理涉及道德或政治判断的决策呢?让算法为重要社会产品的分配或个人自由的范围做出决策,真的可以吗?要知道,算法的决策并不总是考虑公众的利益。而且,这一担心已经成为现实。例如,在大多数现代经济体中,算法已经在以下几个方面发挥着日趋重要的作用:决定个人能否以及以何种条件获得保险、个人和企业能否以及以何种条件获得抵押贷款和信贷、罪犯的适当刑期以及就业机会的分配。

因为在某些情况下,应用和管理这些技术的是私营机构,而不是国家部门,所以它们的行为有时会被错误地描述为,仅仅是商业范畴。但是,这些算法的设计方式、训练它们所基于的数据以及它们所体现的价值观,并不只是公司政策的问题,也不应该被视为仅是公司政策的问题。因为这些算法影响着大家的公民权利以及获得社会产品的机会。

当然,人们会有一种自然的担心,即系统不应该以我们可能不同意甚至不理解的方式,独立地做出道德方面的决策。然而,在每一个数字系统的背后,都有一个人类设计者、所有者或控制者。他们要么通过系统的设计,要么通过训练它的数据,这将最终决定(或未能决定)系统必须遵循的道德方向。这些决策的实质以及我们推出这些决策的过程需要最严密的政治审查。我们虽然还未进入一个由道德自律的人工智能系统控制的世界里。但是,随着技术所承担的功能的数量和重要性在不断增加,我们也需要相称的透明度和问责制。科技公司和政府机构需要以自发或强制性的方式,公布他们的算法运行和数据使用情况,以便人们能够正常地看待他们及他们能力之间的关系。

在有些情况下,某些机器学习系统做出的决策确实超出人类创造者控制或理解的范围。即使最优秀的工程师也无法解释这些系统的行为。如果确实如此,那么这便是一个强有力的原则性论据,可以证明这些系统根本不能应用于公共行政工作。

人们一直在担心,以“技术治国”取代官僚制度可能会剥夺民众与国家互动中的“人情味”。这种担心并不新鲜,但也不一定是问题的决定性因素。首先,韦伯意义上的“官僚制度”本身是否人性化已遭到质疑。许多政府部门面对民众都是高高在上、刚愎自用,个别官僚更是如此。其次,许多民众重视效率胜于人情味。比如,与一个友好但不称职、拖延发放社会保障金的官员相比,我宁愿选择按时发放社会保障金的匿名区块链系统。甚至可以说,在不久之后,所谓的“人情味”将可能不只是人类的特质。因为现在人工智能系统解读人类情绪的能力在不断提高,而且还能对人类的情绪做出精细的反应。“人工情感智能”和“情感计算”正以惊人的速度发展。

执法

数字技术有望改变人类治理方式的另一个领域是执法。许多讨论都集中在扩大监控和数据收集的问题上,当然,这些问题很重要。但是,从长远来看,一个更深层次的问题是,随着我们越来越多地依赖数字技术,以满足基本的日常需求和功能;由此,我们将越来越多地受制于引入到这些技术中的规则和法律。

早期最好的例子是数字权利管理技术,它已经使得某些侵犯版权的行为变得几乎不可能。冒着被抓到并罚款的风险,人类驾驶的汽车仍可以超速行驶。在未来,拒绝超过法定速度限制(或由制造商规定的限制)的自动驾驶汽车,将处于一种迥异于由人控制的车辆的社会法律架构之内。借用劳伦斯·莱斯格(Lawrence Lessig)在另一情境下的比喻,这就是上面写着“请勿入内”的门和简单上锁的门之间的区别。

数字技术不仅有可能引入自我执行的法律,还可能引入自适应性法律。自动驾驶车辆很可能接受可变的速度限制,实际速度取决于这一天的具体时间、天气条件、交通状况和乘客的身份。

法律学者早就认识到,在网络空间,代码即法律。构成程序或平台的代码中所包含的规则,通常牢不可破地约束着人们的行为。譬如,密码不正确,就无法访问文档;一条推文不能超过280个字符等。但是,“代码即法律”的信条现在必须更新和扩展,以涵盖多种情况:代码不再局限于网络空间(比如可用于自动驾驶汽车领域),代码越来越动态和“智能”,而不像过去那样只是一个不可改变的架构。

因此,代码构成了一种奇特的崭新权力形式:如果法律体现在代码中,国家将因此受益,但编写该代码的个人实体也从中获利,因为他们可以选择添加其希望强制执行的规则。

**

人类的未来将既是前进之路,也是回归之路。我们在向前迈进的同时,又仿佛回到很久以前的那个时代,那时候我们把政治事务委托给神秘的力量,而我们几乎不能理解这些力量的运作机制。这些举动所带来的后果不会完全是良性的,也不完全是恶性的。最重要的是,如何设计这些技术,谁拥有和控制它们,以及如何使用它们。

我们的生活应该在多大程度上被数字系统所控制?我们的生活应该在何种条件之下被数字系统所控制?这是世纪的关键政治问题。


[1]编者注:近几十年来,慎议民主(deliberative democracy)成为西方讨论得最为广泛的民主理论之一,并引起了国内学界的广泛关注。出于对传统聚合式民主把政治合法性建立在私人欲望基础上的不满,慎议民主作为一种替代方案成为当代民主理论的中心,并试图通过政治慎议过程重塑合法性。

(本文原文为英文,出自博古睿研究院出版的Noema杂志,发表于2019年7月24日。版权所有,未经允许请勿转载)